科研实习 | 新加坡国立大学尤洋老师课题组招收Data-centric AI/LLM科研实习生
合适的工作难找?最新的招聘信息也不知道?
AI 求职为大家精选人工智能领域最新鲜的招聘信息,助你先人一步投递,快人一步入职!
新加坡国立大学
新加坡国立大学(National University of Singapore)简称国大(NUS),是亚洲顶尖国际知名学府。截至2023年,新加坡国立大学在QS世界大学排名为世界第8名(亚洲第一)、泰晤士高等教育世界大学排名为世界第19名、世界大学学术排名为世界第71名、美国新闻与世界报导为世界第26名。导师简介
尤洋是新加坡国立大学的校长青年教授和加州大学伯克利分校博士。他曾创造 ImageNet 和 BERT 训练速度的世界纪录。他的算法被用于谷歌,微软,英特尔,英伟达等巨头。他曾以一作获得了 IPDPS(0.8% 获奖率)和 ICPP(0.3% 获奖率)的最佳论文。他获得的奖项包括:清华大学优秀毕业生,北京市优秀毕业生,国家奖学金,清华大学数额最高的西贝尔奖学金,ACM-IEEE HPC Fellowship,Lotfi A. Zadeh Prize,ACM Doctoral Dissertation Award 候选人(81 名伯克利博士中选 2 人),福布斯 30 岁以下精英榜(亚洲),IEEE-CS 超算杰出新人奖。
实验室主页:
https://ai.comp.nus.edu.sg/
实验室成立两年左右,在计算机视觉和人工智能的顶会上发表CVPR 7篇,ICML 2篇,ICLR 2篇,ICCV 3篇,NeurIPS 5篇,ECCV 1篇,AAAI 2篇,获得2次杰出论文,一次Oral, 一次Spotlight。尤老师本人为第一作者或最后作者的最佳/杰出论文数暂时为6。
研究方向
以下灰色部分代表已经有同学在做了,黑色还有名额,下划线代表基本完结,但还是有空间可以做的。
Topic 1: 面向大规模数据的的数据集压缩算法的研究,主要是面对IN-1K和AIGC等数据的压缩,相关成果:
ICCV-2023: Dataset Quantization (https://arxiv.org/pdf/2308.10524.pdf)
Topic 2: 探究数据集压缩算法在除分类之外任务上,除图像之外的数据(例如video等)的应用,相关成果:
NeurIPS-2023: Does Graph Distillation See Like Vision Dataset Counterpart? (https://arxiv.org/pdf/2310.09192)
Topic 3: LLM高效训练优化器设计
Topic 4: 多模态数据集压缩和膨胀,相关成果:
NeurIPS-2023: Expanding small-scale datasets with guided imagination (https://arxiv.org/pdf/2211.13976.pdf)
arXiv: MLLMs-Augmented Visual-Language Representation Learning (https://arxiv.org/abs/2311.18765)
Topic 5: AI for Science, Medical Data Centric AI. 与MIT, Havard, Yale和Cornell等合作project,之前的组里的work:
arXiv: Boosting Unsupervised Contrastive Learning Using Diffusion-Based Data Augmentation From Scratch (https://arxiv.org/abs/2309.07909)
Topic 6: LLM训练数据集压缩,团队发表的首篇无损数据集压缩工作:
arXiv: Towards lossless dataset distillation via difficulty-aligned trajectory matching (https://arxiv.org/abs/2310.05773)
以上是我们近期在关注的一些topic,还有一些的想法就不一一列举出来。我们主要致力于 Resource-Efficient AI 算法研究,与之相关的课题我们都可以进行详细的讨论。
招生要求
1. 如果您是本科生,则需要扎实的基础知识,会有proposal或者代码测试;
2. 如果您是硕士生,希望候选人是以一作身份发表过ICLR, ICML, NIPS, CVPR, ICCV, ECCV会议,并且对Data-Centric AI感兴趣;
3. 如果您是博士生,则需要你的博士课题与我们研究有一定的关系,毕竟读博作出一个体系的工作出来可能影响力更大,对您本人也更好,其他要求与硕士生相同。
实习生成果展示
1. Yanqing Liu, Jianyang Gu, Kai Wang, Zheng Zhu, Wei Jiang, and Yang You 2023. DREAM: Efficient Dataset Distillation by Representative Matching. International Conference on Computer Vision (ICCV-2023). 本科大三期间完成
2. Beining Yang, Kai Wang, Qingyun Sun, Cheng Ji, Xingcheng Fu, Hao Tang, Yang You, and Jianxin Li 2023. Does Graph Distillation See Like Vision Dataset Counterpart? Thirty-Seventh Conference on Neural Information Processing Systems (NeurIPS-2023). 硕士期间第一篇一作顶会
3. keep updating
申请方式
如果感兴趣并且符合上述要求的同学欢迎Email:e0823044@u.nus.edu,主题:xx生+姓名+Research Interns申请
同组其他课题
1. 探索推荐模型/CTR 模型在大批量下训练无损的优化器,进一步分析特征频率对优化的影响;
2. 对 LLM 进行 Hessian 分析,开发一个网络分析库以定量分析 GPT 模型的优化曲面性质;
3. 通过实验和理论分析 LLM 大批量训练的性质,并开放更适合大批量的优化器;
4. 通过实验和理论分析 LLM 训练中 Adam 成功的原因,并在此基础上开发新优化器(如引入二阶信息,梯度相关性等)。
招生要求
如果您是本科生,则需要强烈的读博动机,加上扎实的基础知识,会有面试或者代码测试。
申请方式
感兴趣并且符合上述要求的同学欢迎 Email: zangwei@u.nus.edu,主题:姓名+Research Interns申请。
实习内推
京东零售内容算法部|快手模型与应用部|小红书社区搜索组|IDEA研究院|美团平台研发团队|商汤智慧城市事业群|网易互娱AI Lab|微信技术架构部|Avolution.AI团队|百度搜索策略部|蚂蚁集团|阿里达摩院视觉技术实验室|海康威视研究院|阿里巴巴淘天集团|阿里达摩院对话智能团队|第四范式大模型团队|美团流量安全团队|蚂蚁网商银行智能引擎团队|Sony AI|阿里达摩院OCR团队|OPPO研究院语音语义研究部|京东智能服务与产品部算法团队|阿里淘天集团客户满意中心|理想汽车智能座舱团队|阿里通义实验室对话智能团队|百度AIGC团队|光明实验室媒体内容生成团队|奇虎360|美团平台|元象XVERSE|Shopee内容搜索团队|VIVO影像算法研究部|蚂蚁集团机器智能团队|腾讯游戏AI大语言模型团队|京东广告研发部|阿里通义实验室对话智能团队|NVIDIA中国|腾讯混元大模型团队|秘塔科技
高校招生
清华大学机器学习与推理课题组|北京大学网络信息处理实验室|哥本哈根大学计算机系|香港中文大学(深圳)孙启霖老师|圣路易斯华盛顿大学王晨光老师|北大光华管理学院彭一杰教授|大湾区大学余梓彤老师|纽约大学Pavel Izmailov老师|圣路易斯华盛顿大学黄佳新老师|南方科技大学魏鸿鑫老师|佛罗里达大学方若谷教授|香港城市大学赵翔宇老师|北京大学孔桂兰老师|新加坡科技设计大学段凌杰教授|香港中文大学宋永健老师|西蒙菲莎大学陈武阳老师|宁波东方理工大学沈晓宇老师|香港科技大学冯雁教授|香港科技大学(广州)李昊昂老师|鹏城实验室童倩倩老师|悉尼大学Hesham El Gamal教授|麦考瑞大学AIoT课题组|加州大学河滨分校董悦老师|西交利物浦大学颜宏盛副教授|北京大学张文涛教授|清华大学未来实验室人居组|波士顿学院Prof. Donglai Wei|华盛顿大学计算机系王晟老师|香港科技大学(广州)骆昱宇老师|伊利诺伊大学香槟分校张欢老师|西湖大学机器智能实验室
为了更好地了解和满足大家的需求,我们建立了「求职者社群」。
加入 AI 求职社群,你可以享有招聘需求曝光、获取最新面试经验、校招准备攻略、硕博招生和独家内推渠道等服务。
扫描下方小助手的微信,pick 你心仪的岗位~
AI 求职是「PaperWeekly」旗下聚焦人工智能领域的招聘平台,涵盖高校硕博招生、博士后招募、企业校招、社招、实习和内推等。